Những thay đổi về lớn về âm vị chính là những đặc điểm nổi bật của thời kỳ này:

• Sự thay đổi phụ âm bật mũi trở thành phụ âm kêu
• Sự thêm vào nguyên âm dài và âm tiết đóng vào kho âm tiết
• Đọc lướt một số phụ âm trong những hoàn cảnh nhất định
• Thay đổi trong nhịp từ nhịp theo âm tiết thành nhịp theo mora

Tiếng Nhật cổ có 86 âm tiết tách biệt, sang Tiếng Nhật Trung cổ chỉ còn 66.

Sự khác nhau đáng chú ý nhất là sự lược bỏ Jōdai Tokushu Kanazukai (上代特殊仮名遣, "Kiểu Kana đặc biệt cổ"), kiểu chữ phân biệt rõ hai loại -i, -e, và -o. Trong khi giai đoạn bắt đầu lược bỏ này có thể dễ thấy ở cuối thời kỳ Tiếng Nhật cổ, nó đã hoàn toàn biến mất trong tiếng Nhật Trung cổ. Âm vị cuối cùng biến mất là /ko1/ và /ko2/.

Trong thế kỷ thứ X, /e/ và /ye/ nhập thành /e/, còn đến thế kỷ XI /o/ và /wo/ thành /o/[2][3][4].